Năm 1974, để xây dựng Nhà máy sợi hóa học tổng hợp nhập khẩu từ Pháp tại Liêu Dương, ông đã được tuyển dụng vào làm binh sĩ kỹ thuật đảm nhận nhiệm vụ xây dựng cơ sở hạ tầng cho dự án này. Trong thời gian phục vụ trong PLA, Nhậm Chính Phi không mang quân hàm. Ông Nhậm không được gia nhập Đảng Cộng Sản Trung Quốc vì lí lịch cha mẹ có dính dáng tới Quốc Dân Đảng. Trong thời gian này, ông Nhậm chịu trách nhiệm cho nhiều thành tựu công nghệ được ghi nhận ở nhiều cấp. Vì vậy ông Nhậm được lựa chọn vào phái đoàn của PLA tham gia hội nghị khoa học quốc gia năm 1978. Năm 1972, ông Nhậm giải ngũ do PLA cắt giảm lượng lớn nhân sự (500.000 người). Năm 1983, Nhậm chuyển đến Thâm Quyến và làm về ngành điện tử.

Năm 1987, Nhậm Chính Phi thành lập Công ty công nghệ Huawei với số vốn 21.000 RMB (Nhân dân tệ) tương đương khoảng 5.000 USD thời điểm ấy. Với vị trí ở Thâm Quyến (cầu nối giữa Hồng Kông và Trung Quốc Đại lục). Ban đầu, Huawei là nhà thầu bán, lắp đặt và bảo trì thiết bị, bộ chuyển đổi máy chủ,... cho một hãng bán buôn ở Hồng Kông vào Đại lục.

Năm 1992, Nhậm phát triển triển sản phẩm C&C8 sever switch và bán với giá chỉ bằng 1/3 thị trường, đây là bước phát triển thành công đầu tiên của Huawei.

Sau đó, Huawei nhận được các hợp đồng xây dựng trung tâm dữ liệu, xây dựng mạng viễn thông 4G. Huawei cũng hoạt động trong việc xây dựng mạng viễn thông cho các nước châu Phi phục vụ xây dựng quan hệ ngoại giao cho Trung Quốc vào những năm 1990.

Sau 32 năm xây dựng và phát triển, Huawei là thương hiệu điện tử lớn nhất Trung Quốc, một trong những tập đoàn có sức ảnh hưởng nhất Trung Quốc và là nhà sản xuất hạ tầng viễn thông 5G hàng đầu thế giới, đồng thời vượt mặt Apple trở thành hãng sản xuất smartphone lớn thứ hai thế giới. Tuy nhiên sự phát triển quá mạnh mẽ của Huawei cùng sự hậu thuẫn của chính phủ CHND Trung Hoa đã làm chính quyền tổng thống Donald Trump lo ngại. Huawei đang là nạn nhân của cuộc chiến tranh thương mại Mỹ - Trung với việc tổng thống Donald Trump ra lệnh cấm các hãng công nghệ Mỹ xuất khẩu linh kiện và phần mềm cho Huawei, đặc biệt là nền tảng hệ điều hành Android của Google. Nhiều quốc gia phương Tây đồng minh của Mỹ cũng cân nhắc việc cấm Huawei bán các sản phẩm viễn thông 5G tại quốc gia mình. Điều này ảnh hưởng không nhỏ đến tương lai của Huawei nói riêng và các hãng công nghệ trên toàn thế giới nói chung[1].

Phát biểu trước báo giới về lệnh cấm vận từ Mỹ, ông Nhậm Chính Phi hoàn toàn không tỏ ra lo sợ và tuyên bố Huawei có đủ năng lực để tạo ra nền tảng tương đương, cạnh tranh với Android cũng như xoay xở được nguồn cung ứng linh kiện phần cứng.[2]

Nhậm Chính Phi hiện giữ chức phó chủ tịch Hội đồng quản trị, nhưng ông không nằm trong số ba CEO luân phiên hiện tại]. Công ty có doanh thu hàng năm là 92,5 tỷ USD trong năm 2017. Nhậm nắm giữ 1,42% cổ phần của Huawei, trị giá 450 triệu USD vào năm 2010. Huawei về cơ bản là độc lập với ông Nhậm vì cổ phần của họ được nắm giữ bởi các nhân viên, nhưng cấu trúc sở hữu vẫn mờ nhạt.

Tạp chí Times liệt kê Nhậm Chính Phi trong danh sách 100 người ảnh hưởng nhất năm 2005.